Des associations demandent au gouvernement « la fin des algorithmes de scoring »

« Remettre de l’humain » face aux dérives de la dématérialisation. Une trentaine d’associations de défense des libertés publiques et d’accompagnement des plus défavorisés interpellent le premier ministre, Gabriel Attal, sur l’algorithme utilisé par les caisses d’allocations familiales (CAF) pour cibler leurs contrôles, dans une lettre ouverte datée du lundi 5 février.

Ce courrier, signé notamment par le collectif Changer de cap et l’association de défense des libertés numériques La Quadrature du Net, revient sur les pratiques « discriminatoires » engendrées par l’algorithme de ciblage des allocataires des CAF. Ce système, dont Le Monde a révélé les rouages en décembre, a pour effet de concentrer les contrôles sur certains publics fragiles comme les parents isolés, une partie des bénéficiaires de l’allocation adulte handicapé ou les foyers à faibles revenus.

Enquête : Article réservé à nos abonnés Profilage et discriminations : enquête sur les dérives de l’algorithme des caisses d’allocations familiales

Les associations accusent ce système de contribuer à une « maltraitance institutionnelle » des CAF, aux « multiples conséquences sur le plan matériel et psychologique ».

Elles appellent donc le gouvernement à renoncer à l’utilisation de tels algorithmes de notation, dans les CAF mais aussi dans le reste des organismes publics comme France Travail (qui remplace Pôle emploi). Elles demandent également un contrôle plus strict des outils informatiques des administrations, ainsi qu’une plus grande transparence à leur propos.

Grand format : Article réservé à nos abonnés Comment l’algorithme de la CAF prédit si vous êtes « à risque » de frauder

Opacité persistante des CAF

Les différentes enquêtes journalistiques et interpellations d’associations n’ont pas ébranlé la confiance de la Caisse nationale des allocations familiales (CNAF) en son système. « Nous n’avons pas à rougir de notre action », estime le directeur de l’organisme, Nicolas Grivel, dans un message interne diffusé en décembre, assurant n’avoir « ni peur ni honte du débat ».

Auditionné au Sénat le 25 janvier, le dirigeant s’est cependant refusé à entrer dans les détails du fonctionnement de l’algorithme. « On ne cible pas les familles monoparentales, pas du tout », a-t-il assuré, expliquant que les publics fragiles sont plus nombreux à être contrôlés parce qu’ils sont plus nombreux parmi les allocataires. Une ligne de défense qui occulte le fait que l’algorithme cible directement ces publics, et induit des contrôles dans des proportions plus grandes que les autres.

Le directeur de la CNAF n’a pas non plus répondu à la question du sénateur socialiste de la Seine-Saint-Denis Adel Ziane, qui cherchait à savoir si des critères géographiques étaient utilisés pour cibler les contrôles. Le département de Seine-Saint-Denis avait saisi la Défenseure des droits en décembre, s’inquiétant d’une possible « rupture d’égalité territoriale ».

La CNAF rechigne de longue date à faire la lumière sur la conception, le contenu et les effets de son système de ciblage des contrôles. Le Monde a saisi au mois de décembre le tribunal administratif afin d’obtenir la communication de documents relatifs à ce « score de risque ». Mais l’organisme public maintient son refus dans un mémoire en défense, signé par le cabinet d’avocats Veil Jourde, le 17 janvier.

Les conseillers y soutiennent que « la CNAF ne peut communiquer des pièces dont elle ne dispose pas ». L’organisme n’aurait pas établi de cahier des charges avant de concevoir cet algorithme, et n’en aurait pas non plus évalué les effets ni cherché à en tester les éventuels biais, après plus de dix ans d’utilisation et des centaines de milliers de contrôles déclenchés.

Adrien Sénécat